DART-SD: Diamond-topology Aware Retrieval and Tuning for Self-Distillation of Multi-Turn Tool-Calling Agents
面向多轮工具调用智能体的菱形拓扑感知检索与自蒸馏训练框架
🧭 多轮工具调用 Agent 的自蒸馏训练 ★ 深度解读
ByteDance · University of Science and Technology of China
构建交互状态转移图并识别关键拓扑断点,仅对恢复步骤做局部监督,提升多轮工具调用效率与泛化。
📌 工作参考价值(5 点)
- 业务值得借鉴的:
- 将多轮工具调用轨迹建模为交互状态转移图(ISTG),用信息原子抽象归一化语义等价工具响应,可有效压缩状态空间并捕捉顺序无关子目标的菱形拓扑,适合电商/搜索 Agent 中多路径比价、商品查询等场景。
- 用成功可达区域投影定位第一个偏离点(CTB),只对失败后的恢复步骤做局部监督并 mask 有效前缀,避免全局 SFT/RL 对有效探索的误惩罚,可缓解 credit misassignment 和灾难性遗忘。
- 采用渐进式自蒸馏:每轮从学生 rollout 中检测能力边界,用教师轨迹检索恢复参考,形成自步课程;工程上可低成本迭代,且能逐步缩短工具调用链(文中 3.55 vs golden 4.02)。
- 在具备 verifiable feedback 的自动构建环境(类似 FTRL)中先构造教师轨迹池与状态图,再迁移到真实业务前可用该框架做离线自蒸馏。